Filem bermula dengan Mary Poppins (Julie Andrews) perched di awan tinggi di atas London pada Musim Bunga 1910.[1] Tindakan ini menurun ke tanah di mana Bert (Dick Van Dyke), seorang Cockney jack-of-all-trades sedang mempersembahkan suatu one-man band di tempat masuk sebuah taman, di mana dia kadang-kadang merasa bahawa kawan baiknya akan kembali. Selepas tayang itu, dia memecah "Dinding Keempat" dan memperkenalkan penontonnya ke keluarga Banks yang kaya tetapi bermasalah, diketuai oleh Mr. Banks (David Tomlinson) yang sombong dan aloof dan suffragette Mrs. Banks (Glynis Johns), seorang suffragette yang bermesra tetapi sangat mudah diganggu.

Nanny terkini keluarga Banks, Katie Nanna, berhenti kerja oleh kerana exasperation menjaga anak-anak keluarga Banks, Jane (Karen Dotrice) dan Michael (Matthew Garber) melarikan diri dengan pursuit of a wayward kite. En Banks pulang ke rumah dari pekerjaan di sebuah bank, dan Pn Banks reveals bahawa anak-anak mereka telah hilang. Seorang pegawai polis tiba dengan anak-anak itu, menanyakan bapa mereka untuk membantu memperbaikikan layang-layang rosak mereka, tetapi dia menghentikan mereka dan memberikan iklan untuk gantian seorang nanny yang berpihakkuasa. Jane dan Michael mendaftarkan untuk seorang yang menyeronokkkan, baik hati dan penyayang, tetapi En. Banks mengoyak kertas itu dan membuangnya ke dalam tempat api. Tidak dinyatakan, kertas itu berapung ke atas chimney.

Hari keesokannya ada sebarisan nanny yang tua dan tidak disetuju tunggu di pintu. Meskipun, suatu tiupan angin kuat secara harfiah meniupkan juahkan barisan, dan Mary Poppin berapung ke bawah dengan payungnya untuk digunakan. En. Banks adalah stunned dengan apa yang dia lihat pada nanny baru ini yang defiant secara tenang menjawabkan iklan kanak-kanak itu despite the fact dia memusnahnya. Ketika dia merasa keliru, Mary Poppins memberikan dirinya pekerjaan dan bermula bekerja.

Anak-anak itu mengalami kejutan mereka sendiri: Mary memiliki suatu bottomless carpetbag, dan mengandungi kandungan nursery kanak-kanak yang datang hidup dan mengemaskan diri mereka. Ketiga-tiga mereka kemudian menemu Bert di taman, di mana Mary menggunakan salah satu lukisan berkapur tepi jalannya sebagai pintu masuk ke suatu tempat luar bandar yang beranimasi. Haru keesokannya, mereka melawat bapa saudara Mary yang lucu Uncle Albert, yang berapung bila-bila sahaja dia berketawa, dan mengikut samanya dengan pesta teh di tengah-tengah udara.

Mr. Banks menjadi semakin tidak selesa dengan cerita-cerita anak-anaknya pada adventure mereka, tetapi Mary secara tidak berkesan inverts percubaannya yang menghentikan perkhidmatannya ke suatu rancangan untuk membawa anak-anaknya bersamanya ke bank di mana dia bekerja. En. Dawes, majikan En. Banks yang sangat tua, secara agresif cuba untuk memujuk Michael untuk melaburkan wangnya ke dalam bank. Apabila Michael membantah, para pelanggan yang lain salah faham, dan bermula suatu run on the bank yang memaksa bank untuk menghentikan perniagaannya. Anak-anak melarikan diri ke dalam slums East End of London. Fortunately, they run into Bert, now employed as a chimney sweep. He takes them safely home, explaining that their father does not hate them, but that he has problems of his own, and that unlike the children, has no-one to turn to but himself.

Di rumah, seorang Mrs. Banks yang meninggalkan rumah mengupah Bert untuk membersihkan cenderung rumah keluarganya dan menjaga anak-anaknya. Mary Poppins tiba dari hari cutinya dan memberikan amaran pada aktiviti ini, tetapi telah terlambat kerana anak-anak telah disedut lalu cenderung ke atas bumbung rumah. Bert dan Mary mengikut mereka dan memimpinkan suatu lawatan atas bumbung Lndon yang ditutupi dengan suatu tarian meriah dengan rakan-rakan penyapu cenderung Bert. Suatu perkembangan bunga api dari jiran gila keluarga Banks, Admiral Boom, yang memikir London telah diserang oleh puak Hottentot, mengirimkan seluruh jemaah balik ke bawah cenderung keluarga Banks. Mr. Banks tiba di rumah, memaksa Mary untuk menamatkan pesta ini. Banks kemudian menerima suatu panggilan telefon dari tempat kerja memerintahnya untuk pulang selanjutnya untuk tindakan disiplin. Apabila Mr. Banks mendapatkan kekuataannya, Bert menunjukkan bahawa Mr. Banks perlu mendapatkan gaji, zaman kanak-kanak keturunannya akan datang dan pergi dengan sekelip mata, dan dia perlju berada di sana untuk menjaga mereka di mana dia dapat. Anak-anak keluarga Banks mencapai bapanya untuk meminta maaf, dan Michael memberi Mr. Banks tuppencenya mengharapkan ia akan memperbaikikan keadaan. Banks menerima perolehan ini secara menunduk.

Seorang Mr. Banks yang sedih dan berhati perut berjalan sendiri melalui jalan-jalan waktu malam. Di bank, dia secara rasmi dimalukan dan dibuang kerja untuk menyebabkan kejalanan pertama bank sejak 1773 (ia dinyatakan bahawa bank membekalkan wang untuk pengirimkan layaran teh sewaktu Boston Tea Party). Meskipun, selepas berada dalam keadaan kehilangan apabila diperintahkan untuk memberikan suatu kenyataan, Mr. Banks menyebutkan perkataan tujuan semua Mary Poppins "Supercalifragilisticexpialidocious!" untuk tweak Mr Dawes. Dia memberi Dawes tuppence itu, memberitahu lelaki tua itu adalah salah satu jenaka Uncle Albert dan secara raucous menerbang. Dawes mulls ke atas jenaka itu, akhirnya "memahaminya" dan berapung di udara, berketawa...

Pada pagi keesokannya, tiupan angin berubah arahan, dan oleh itu Mary harus pergi. Ketika itu, para dewasa keluarga Banks tidak dapat mencari Mr. Banks, dan takut bahawa dia mungkin telah menjadi merasa hendak membunuh diri. Meskipun, Mr. Banks, kini bermesra dan bermeriah, bermuncul semula dengan layang-layang yang kini dipinda dan secara seronok memanggil anak-anaknya. Mrs. Banks yang sangat lega membekalkan sebuah ekor untuk layang-layang, menggunakan salah satu ribbon suffragettenya. Mereka semua meninggalkan rumah tanpa menoleh belakang apabila Mary Poppins melihat dari sebuah tingkap. Di taman dengan para pelayang layang-layang lain, Mr. Banks bertemu Mr. Dawes Jr., yang berkata bahawa bapanya secara harfiah mati kerana ketawa. Daripada merasa sedih, anak lelakinya ini merasa bahagia bahawa bapanya meninggal gembira, dan mendapatkan semula Mr. Banks untuk memenuhi pembukaan sebagai teman bisnes bank.

Pekerjaannya telah berakhir, Mary Poppins menuju ke udara dengan seruan selamat tinggal yang mesra dari Bert.